Μέχρι πρόσφατα, η συζήτηση γύρω από την περιβαλλοντική, κοινωνική εταιρική διακυβέρνηση (ESG) επικεντρωνόταν κυρίως στο περιβάλλον, στις κοινωνικές πολιτικές και στην εταιρική διακυβέρνηση. Σήμερα, όμως, ένας νέος παράγοντας αναδιαμορφώνει αθόρυβα ολόκληρο το πλαίσιο της επιχειρηματικής ευθύνης και αυτός ο παράγοντας είναι η Τεχνητή Νοημοσύνη (ΑΙ). Η είσοδος των συστημάτων AI στις επιχειρήσεις δεν αποτελεί απλώς μια ακόμη τεχνολογική εξέλιξη. Αλλάζει τον τρόπο με τον οποίο λαμβάνονται οι αποφάσεις, αξιολογούνται οι κίνδυνοι, διαχειρίζονται οι ανθρώπινοι πόροι, οργανώνονται οι εφοδιαστικές αλυσίδες και επικοινωνούν οι οργανισμοί με τους πελάτες τους. Για πρώτη φορά, σημαντικό μέρος της επιχειρησιακής κρίσης μεταφέρεται από τον άνθρωπο στον αλγόριθμο.
Αυτό δημιουργεί ένα νέο ερώτημα, ήτοι ποιος φέρει την ευθύνη όταν οι αποφάσεις δεν λαμβάνονται αποκλειστικά από ανθρώπους; Η απάντηση δεν μπορεί να είναι η ίδια η τεχνολογία. Η τεχνητή νοημοσύνη δεν διαθέτει ηθική συνείδηση, ούτε νομική προσωπικότητα, ούτε λογοδοσία. Μπορεί να παράγει αποτελέσματα, αλλά δεν μπορεί να αναλάβει ευθύνη για αυτά. Η ευθύνη παραμένει πάντοτε ανθρώπινη και θεσμική. Εδώ ακριβώς συναντώνται η τεχνητή νοημοσύνη και το ESG. Η πραγματική πρόκληση δεν είναι αν μια επιχείρηση χρησιμοποιεί AI. Το κρίσιμο ερώτημα είναι αν διαθέτει τις κατάλληλες δομές ώστε η χρήση της να είναι ασφαλής, διαφανής και υπεύθυνη.
Η συζήτηση αυτή αποκτά ιδιαίτερη σημασία στη ναυτιλία. Ήδη χρησιμοποιούνται συστήματα τεχνητής νοημοσύνης για τη βελτιστοποίηση της κατανάλωσης καυσίμων, τον σχεδιασμό διαδρομών, την προληπτική συντήρηση πλοίων, την ανάλυση καιρικών συνθηκών, τη διαχείριση στόλων και την κυβερνοασφάλεια. Σύντομα, ο αριθμός των αποφάσεων που θα υποστηρίζονται από αλγορίθμους θα αυξηθεί δραματικά. Όμως όσο αυξάνεται η αυτοματοποίηση, τόσο αυξάνεται και η ανάγκη για διακυβέρνηση.
Η μεγαλύτερη παρανόηση είναι ότι η τεχνητή νοημοσύνη μπορεί να υποκαταστήσει τη διοίκηση. Στην πραγματικότητα συμβαίνει το αντίθετο. Όσο ισχυρότερη γίνεται η τεχνολογία, τόσο σημαντικότερος γίνεται ο ανθρώπινος έλεγχος. Η AI μπορεί να προτείνει. Δεν μπορεί να λογοδοτήσει. Μπορεί να αναλύσει δεδομένα. Δεν μπορεί να αναλάβει τη θεσμική ευθύνη μιας επιλογής. Αυτό οδηγεί σε μια νέα αντίληψη της εταιρικής διακυβέρνησης. Τα διοικητικά συμβούλια δεν καλούνται πλέον μόνο να εποπτεύουν οικονομικούς ή λειτουργικούς κινδύνους. Οφείλουν να κατανοούν και τους αλγοριθμικούς κινδύνους. Να γνωρίζουν πώς εκπαιδεύονται τα μοντέλα AI, ποια δεδομένα χρησιμοποιούν, ποιοι είναι οι περιορισμοί τους, πότε ενδέχεται να παράγουν λανθασμένα ή μεροληπτικά αποτελέσματα και πώς διατηρείται ο ανθρώπινος έλεγχος στις κρίσιμες αποφάσεις.
Η ευρωπαϊκή νομοθεσία κινείται ήδη προς αυτή την κατεύθυνση. Ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) δεν επιδιώκει να επιβραδύνει την καινοτομία αλλά να διασφαλίσει ότι η καινοτομία θα αναπτυχθεί μέσα σε ένα πλαίσιο εμπιστοσύνης, λογοδοσίας και προστασίας των θεμελιωδών δικαιωμάτων. Ίσως, λοιπόν, χρειάζεται να επαναπροσδιορίσουμε το ίδιο το ESG. Το “G” της διακυβέρνησης δεν αφορά πλέον μόνο τους ανθρώπους που διοικούν έναν οργανισμό. Αφορά και τον τρόπο με τον οποίο ο οργανισμός διοικεί τα ευφυή συστήματα που χρησιμοποιεί.
Η επόμενη γενιά επιχειρήσεων δεν θα ξεχωρίζει επειδή θα διαθέτει περισσότερη τεχνητή νοημοσύνη. Θα ξεχωρίζει επειδή θα διαθέτει καλύτερη διακυβέρνηση της τεχνητής νοημοσύνης. Διότι, στην πραγματικότητα, η πρόκληση της νέας εποχής δεν είναι να δημιουργήσουμε εξυπνότερους αλγορίθμους. Είναι να δημιουργήσουμε σοφότερους θεσμούς, ικανούς να τους καθοδηγούν.
